Math'φsics

Menu
  • Acceuil
  • Maths
  • Physique
    • Maths
    • Physique
  • Information de Fisher

    Formulaire de report

    Information de Fisher \(I(\theta)\)
    Quantité correspondant à : $$I(\theta):={\Bbb E}_\theta[\nabla_\theta\ell_\theta\nabla\ell_\theta^T]=\left({\Bbb E}_\theta\left[\frac{\partial\ell_\theta}{\partial\theta_i}\frac{\partial\ell_\theta}{\partial\theta_j}\right]_{1\leqslant i,j\leqslant k}\right)$$
    • axiomes :
            
      1. \(\Theta\) est un Ouvert de \({\Bbb R}^k\) et \(\theta\mapsto L_\theta(\omega)\) est différentiable en \(\theta\)

              
    • \(\forall\theta\in\Theta\), on peut alors définir \({\Bbb P}_\theta-ps\) \(\ell_\theta(\omega):=\) \(\log(L_\theta(\omega))\) et \(\nabla_\theta\ell_\theta(\omega):=\) \(\frac1{L_\theta(\omega)}\nabla_\theta L_\theta(\omega)\)
            
      1. \(\forall\theta\in\Theta\), on a \({\Bbb E}_\theta[\lvert\nabla\ell_\theta\rvert^2]\lt +\infty\)

        
  • Pour toute Statistique \(S:\Omega\to{\Bbb R}\) tq \(\forall\theta\in\Theta,{\Bbb E}_\theta[\lvert S\rvert^2]\lt +\infty\), l'application \(\theta\mapsto{\Bbb E}_\theta[S]\) est différentiable, et \(\nabla_\theta{\Bbb E}_\theta[S]={\Bbb E}_\theta[S\nabla_\theta\ell_\theta]\)


  • Questions de cours

    START
    Ω Basique (+inversé optionnel)
    Recto: Interpréter l'information de Fisher.
    Verso:
    • Elle peut s'apparenter à une mesure du Rapport signal sur bruit au niveau des modèles.
    • Elle peut informer sur la manière dont les modèles se différencient au voisinage d'un point \(\theta\).
    • Elle s'apparente à une métrique locale en \(\theta\) induite sur \(\Theta\) par une métrique sur les Probabilités sur \(\Omega\), donnant à \(\Theta\) une structure de Variété riemannienne.

    Bonus:
    Carte inversée ?:
    END
    START
    Ω Basique (+inversé optionnel)
    Recto: Donner une interprétation de l'information de Fisher, grâce à la Borne de Cramer-Rao.
    Verso: C'est l'inverse de la Variance minimale que peut atteindre un Estimateur de \(\theta\).
    Bonus:
    Carte inversée ?:
    END

  • Rétroliens :
    • Borne de Cramer-Rao
    • Estimateur du maximum de vraisemblance